Vi khuẩn đầu tiên được quan sát bởi Antony van Leeuwenhoek năm 1683 bằng kính hiển vi một tròng do ông tự thiết kế. Tên "vi khuẩn" được đề nghị sau đó khá lâu bởi Christian Gottfried Ehrenberg vào năm 1828, xuất phát từ chữ βακτηριον trong tiếng Hy Lạp có nghĩa là "cái que nhỏ". Louis Pasteur (1822-1895) và Robert Koch (1843-1910) miêu tả vai trò của vi khuẩn là các thể mang và gây ra bệnh hay tác nhân gây bệnh.

Ban đầu vi khuẩn hay vi trùng (microbe) được coi là các loại nấm có kích thước hiển vi (gọi là schizomycetes), ngoại trừ các loại vi khuẩn lam (cyanobacteria) quang hợp, được coi là một nhóm tảo (gọi là cyanophyta hay tảo lam). Phải đến khi có những nghiên cứu về cấu trúc tế bào thì vi khuẩn mới được nhìn nhận là một nhóm riêng khác với các sinh vật khác. Vào năm 1956 Hebert Copeland phân chúng vào một giới (kingdom) riêng là Mychota, sau đó được đổi tên thành Sinh vật khởi sinh (Monera), Sinh vật nhân sơ (Prokaryota), hay Vi khuẩn (Bacteria). Trong thập niên 1960, khái niệm này được xem xét lại và vi khuẩn (bây giờ gồm cả cyanbacteria) được xem như là một trong hai nhóm chính của sinh giới, cùng với sinh vật nhân chuẩn. Sinh vật nhân chuẩn được đa số cho là đã tiến hóa từ vi khuẩn, và sau đó cho rằng từ một nhóm vi khuẩn hợp lại.

Sự ra đời của phân loại học phân tử đã làm lung lay quan điểm này. Năm 1977, Carl Woese chia sinh vật nhân sơ thành 2 nhóm dựa trên trình tự 16S rRNA, gọi là vực Vi khuẩn chính thức (Eubacteria) và Vi khuẩn cổ Archaebacteria. Ông lý luận rằng hai nhóm này, cùng với sinh vật nhân chuẩn, tiến hóa độc lập với nhau và vào năm 1990 nhấn mạnh thêm quan điểm này bằng cách đưa ra hệ phân loại 3 vực (three-domain system), bao gồm Vi khuẩn (Bacteria), Vi khuẩn cổ (Archaea) và Sinh vật nhân chuẩn (Eucarya). Quan điểm này được chấp nhận rộng rãi giữa các nhà sinh học phân tử nhưng cũng bị chỉ trích bởi một số khác, cho rằng ông đã quan trọng hóa vài khác biệt di truyền và rằng cả vi khuẩn cổ và sinh vật nhân chuẩn có lẽ đều phát triển từ vi khuẩn chính thức.